Что такое V8 hidden classes и inline caching и как они влияют на производительность?

Hidden Classes

JavaScript — динамически типизированный язык, и в объекте в любой момент можно добавить или удалить свойство. Если бы V8 хранил свойства объектов в обычной hash-map, каждое обращение obj.x требовало бы поиска по строке ключа, что медленно.

Чтобы избежать этого, V8 создаёт для объектов hidden classes (в других движках их называют "shapes" или "maps"). Это скрытая структура, которая описывает набор свойств объекта и смещение каждого свойства в памяти. Объекты с одинаковой формой (одинаковым набором свойств, добавленных в одинаковом порядке) используют один и тот же hidden class.

Переходы между классами

Когда в объект добавляется новое свойство, V8 не переписывает существующий hidden class, а создаёт переход к новому hidden class и связывает его со старым. Так строится дерево переходов.

function Point(x, y) {
  this.x = x; // создаётся hidden class C0 -> C1 (добавлено x)
  this.y = y; // переход C1 -> C2 (добавлено y)
}

const p1 = new Point(1, 2); // проходит по цепочке C0 -> C1 -> C2
const p2 = new Point(3, 4); // проходит по той же цепочке, разделяет C2 с p1

Если же свойства добавлять в разном порядке или динамически удалять их через delete, объекты получат разные hidden classes даже с одинаковым набором ключей, и оптимизации ниже перестанут работать.

function PointBad(x, y) {
  this.x = x;
}
const a = new PointBad(1, 2);
a.y = 2; // добавлено после конструктора — другая цепочка переходов

const b = new PointBad(3, 4);
b.z = 5; // ещё один другой набор свойств
// a и b теперь имеют разные hidden classes,
// хотя выглядят структурно похоже

Inline Caching

Hidden classes дают V8 возможность запомнить конкретное смещение свойства для конкретного места в коде — это и есть inline caching (IC). При первом обращении к obj.x V8 фиксирует, какой hidden class встретился и на каком смещении лежит x. При повторных вызовах того же кода, если hidden class объекта совпадает с закешированным, движок сразу читает значение по смещению, минуя полный поиск свойства.

Состояния IC

• Monomorphic — в данном месте кода всегда встречается один и тот же hidden class. Самый быстрый случай, JIT-компилятор (TurboFan) может максимально специализировать код.
• Polymorphic — встречается несколько (обычно до 4) разных hidden classes. V8 хранит небольшой список вариантов, доступ чуть медленнее.
• Megamorphic — вариантов больше порога. V8 переходит к общему медленному пути поиска свойств, оптимизации теряются, а код может быть деоптимизирован.

function getX(obj) {
  return obj.x; // сайт вызова, за которым следит IC
}

getX({ x: 1 });        // hidden class A
getX({ x: 2 });        // тот же класс A — остаётся monomorphic
getX({ x: 3, y: 4 });  // другой hidden class B — становится polymorphic

Практические выводы

• Инициализировать все свойства объекта в конструкторе и в одном и том же порядке.
• Не добавлять и не удалять свойства после создания объекта, использовать null/undefined как значение-заглушку вместо delete.
• Избегать функций, которые принимают объекты разной формы и внутри обращаются к одинаковым полям — это делает сайты вызова polymorphic или megamorphic.
• Использовать классы (class) или фабричные функции с фиксированной структурой вместо ручного динамического конструирования объектов.

Эти правила не нужно соблюдать фанатично для каждой строки кода, но они критичны в горячих путях — циклах, часто вызываемых функциях, обработчиках событий с высокой частотой.